Tên gọi của sông xuất phát từ tên tiếng dân tộc Thái và tiếng Lào là nậm Ma với nậm nghĩa là sông, nước. Đây cũng là tên chính thức của đoạn sông bên Lào.

Theo quan niệm của người Kinh, sông có tên gọi "Mã" vì dòng nước chảy xiết như ngựa phi. Tuy nhiên, theo nghiên cứu về từ nguyên học thì Mã là âm một chữ Hán để ghi tên thật: "sông Mạ", trong đó "mạ" là một từ tiếng Việt cổ còn lưu lại trong phương ngữ miền Trung có nghĩa là "mẹ". Và tên gốc con sông có nghĩa là "sông lớn"[4].

Sử Việt còn gọi sông Mã là Lỗi Giang.